Các nhà toán học Trung Hoa đã biết đến ma trận kì ảo (ma phương) từ năm 650 trước Công Nguyên[2]. Thế kỉ thứ 7, người Ả Rập đã học được ma trận kì ảo từ người Ấn Độ. Những ma trận kì ảo bậc 5 và 6 đầu tiên xuất hiện trong một cuốn bách khoa toàn thư của thành Baghdad vào khoảng năm 983 (Rasa'il Ihkwan al-Safa); một số nhà toán học Ả Rập thời kì trước đó đã biết đến những ma trận kì ảo đơn giản hơn.[2].

• Hình vuông kì lạ này (còn gọi là ma phương) được người Trung Quốc phát minh khoảng 4 hoặc 5 nghìn năm trước công nguyên[cần dẫn nguồn]. Trong tài liệu thời đó thì số 2 được ghi •—• (hình tròn đen chỉ số chẵn, còn gọi là nữ số) số 3 được ghi o—o—o (hình tròn trắng chỉ số lẻ, còn gọi là nam số).

• Đến thế kỷ I sau công nguyên, người Ấn Độ lại phát minh ra hình vuông kỳ lạ lớn hơn gồm 4*4 ô.

• • Ở đây 16 số từ 1 đến 16 được sắp xếp trong 16 ô và có tính chất như hình vuông 9 ô của người Trung Quốc.
• Hình vuông kỳ lạ này xuất hiện ở châu Âu vào thế kỷ thứ XV. Đến năm 1514, nhà điêu khắc, hội họa kiêm toán học người Đức là A. Đua-re (Durer) đã ghi hình vuông kỳ lạ của người Ấn Độ vào một tác phẩm điêu khắc của mình: "Mêlăngcôli".